En el campo de la inteligencia artificial, el 'problema de alucinación' de los modelos de lenguaje grandes ha sido un desafío clave para la industria. Recientemente, los resultados de una prueba basada en el sistema de evaluación HHEM-2.1-Open muestran que el modelo GLM-4-9B de Zhihu AI ha presentado resultados notables. Los datos de la prueba muestran que, de los 85 modelos de lenguaje grandes que participaron en la evaluación, GLM-4-9B obtuvo el primer lugar con una tasa de consistencia de hechos del 98.7% y una tasa de respuesta del 100%. Cabe destacar que la tasa de alucinación de este modelo es de solo el 1.3%, un logro significativo.

Con la proliferación de los modelos de lenguaje grandes (LLM) en las aplicaciones modernas de inteligencia artificial, herramientas como los chatbots y los generadores de código dependen de las capacidades de estos modelos. Sin embargo, los problemas de eficiencia en el proceso de inferencia se están volviendo cada vez más pronunciados. Especialmente en el manejo de mecanismos de atención, como FlashAttention y SparseAttention, a menudo se enfrentan a desafíos con cargas de trabajo diversas, patrones de entrada dinámicos y limitaciones de recursos de GPU. Estos desafíos, junto con la alta latencia y los cuellos de botella de memoria

TypingMind es una herramienta de terceros diseñada para ofrecer a los usuarios una experiencia mejorada con ChatGPT. Creada por el desarrollador independiente Tony Dinh, admite varios modelos de lenguaje grandes, incluyendo GPT de OpenAI y Claude de Anthropic. Ofrece funciones básicas como chats, listas de múltiples conversaciones y plantillas de indicaciones, sin necesidad de descarga ni instalación, lo que facilita su uso. Esta herramienta también admite la implementación privada, ofreciendo protección de la privacidad de los datos; su modelo de negocio...

En la conferencia Volcano Engine FORCE impulsada por la innovación del 18 de diciembre de 2024, Volcano Engine anunció una actualización completa de la familia de modelos de lenguaje grande Doubao, y lanzó un nuevo modelo de comprensión visual. El presidente de Volcano Engine, Tan Dai, declaró que el uso diario de tokens del modelo de lenguaje grande Doubao ha aumentado rápidamente en los últimos meses, alcanzando más de 4 billones, un aumento de 33 veces en comparación con su lanzamiento en mayo. Esta tendencia de crecimiento muestra el amplio uso del modelo de lenguaje grande Doubao en múltiples escenarios de aplicación. En esta ocasión, Volcano Engine, mediante el lanzamiento del modelo de comprensión visual,

¡SK Telecom vuelve a dar un gran paso! El martes anunciaron el lanzamiento de la versión para PC de su servicio de Inteligencia Artificial (IA), A., que permite a los usuarios acceder gratuitamente a varios modelos de lenguaje grandes (LLM) a través del sitio web adot.ai, incluyendo el último GPT-4o. Esta versión para PC permite a los usuarios utilizar A. no solo en sus teléfonos móviles, sino que por primera vez también podrán acceder a través de navegadores en computadoras y tabletas. Nota de la imagen: Imagen generada por IA, servicio de autorización de imágenes Midjourney

Recientemente se ha presentado OpenR, un innovador framework de código abierto diseñado para abordar las deficiencias de los modelos de lenguaje grandes (LLM) en tareas de razonamiento complejas. Desarrollado conjuntamente por investigadores de University College London, la Universidad de Liverpool, la Universidad Jiao Tong de Shanghai, la Universidad de Ciencia y Tecnología de Hong Kong (Guangzhou) y la Universidad de Westlake, este framework utiliza el cálculo en tiempo de prueba, el aprendizaje por refuerzo y la supervisión de procesos para mejorar la capacidad de razonamiento de los LLM. Aunque los LLM han mostrado un progreso significativo en la generación de lenguaje, todavía presentan dificultades al abordar tareas complejas como problemas matemáticos, de programación y científicos.

Recientemente, los modelos de lenguaje grandes (LLM) han experimentado un rápido desarrollo, y los modelos Transformer han sido cruciales en este avance. El núcleo de Transformer es el mecanismo de atención, que actúa como un filtro de información, permitiendo que el modelo se centre en las partes más importantes de una oración. Pero incluso los poderosos Transformer pueden verse afectados por información irrelevante, como si estuvieras buscando un libro en una biblioteca y te vieras abrumado por una pila de libros irrelevantes, lo que reduce la eficiencia. Esta información irrelevante generada por el mecanismo de atención se conoce en la literatura como ruido de atención. Imagina que quieres...

En la Inclusion·Bund Conference 2024, Ant Group compartió sus últimos avances en la construcción de agentes inteligentes profesionales mejorados con conocimiento y presentó KAG, su resultado de investigación que combina gráficos de conocimiento con modelos de lenguaje grandes. Presentado por Liang Lei, responsable de gráficos de conocimiento de Ant Group, este marco tiene como objetivo mejorar significativamente la precisión y el rigor lógico de las decisiones en dominios verticales mediante la guía de decisiones y la recuperación a través de símbolos lógicos de gráficos.

Recientemente, Wenyi Yu y su equipo de la Universidad Nacional de Singapur presentaron una nueva tecnología llamada video-SALMONN. No solo comprende secuencias de fotogramas visuales, eventos de audio y música en videos, sino que, lo que es más importante, comprende el contenido de voz en los videos. Este avance representa un paso significativo en nuestra capacidad para permitir que las máquinas comprendan el contenido de los videos.

AutoAlign es un método innovador para la alineación de grafos de conocimiento, diseñado para resolver el problema de la identificación de entidades en diferentes grafos de conocimiento. Utiliza modelos de lenguaje extenso para construir un grafo de vecindad de predicados, identificando automáticamente predicados similares y logrando la alineación de entidades entre grafos de conocimiento. Sin necesidad de alineación manual de semillas, a través de la alineación de predicados, la alineación de entidades y un mecanismo de aprendizaje conjunto, mejora significativamente la eficiencia y la precisión de la alineación. En tareas de alineación de entidades, AutoAlign supera a los métodos existentes y muestra potencial en aplicaciones como la complementación de grafos de conocimiento. AutoAlign no solo...

Meta lanzó la serie de modelos de código abierto Llama3.1, que incluye una versión de 405B parámetros, con un rendimiento comparable al de GPT-4. Entre ellos, la versión de 8B parámetros, Llama3.1-8B-Instruct, admite múltiples idiomas, una longitud de contexto de hasta 131072 tokens, y se entrenó con 25 millones de datos sintéticos, mostrando capacidades de cognición e inferencia similares a GPT3.5Turbo. Basándose en este modelo, OpenBuddy lanza OpenBuddy-L, que admite preguntas y respuestas en chino y traducción entre idiomas.

Investigadores de Microsoft han presentado un nuevo marco de IA llamado Auto Evol-Instruct, capaz de adaptar y optimizar automáticamente el proceso de generación de conjuntos de datos de IA sin necesidad de intervención humana. A diferencia de los métodos de evolución anteriores que requerían la definición de reglas por parte de expertos, este marco utiliza directamente modelos de lenguaje grandes (LLM) para analizar instrucciones, diseñar y optimizar las reglas de evolución. Auto Evol-Instruct puede mejorar automáticamente el rendimiento en tareas como el seguimiento de instrucciones, el razonamiento matemático y la generación de código, mejorando significativamente el rendimiento de los LLM. Las pruebas comparativas muestran...

Microsoft ha lanzado en su sitio web GraphRAG, un RAG (Generación Aumentada por Recuperación) basado en grafos de código abierto. Este sistema construye un grafo de conocimiento de entidades para mejorar las capacidades de búsqueda, preguntas y respuestas, resumen y razonamiento de los modelos de lenguaje grandes, especialmente en conjuntos de datos a gran escala.

El gigante tecnológico Oracle anunció recientemente el lanzamiento de su servicio en la nube HeatWave GenAI, un producto innovador diseñado para ofrecer a las empresas soluciones integrales de IA generativa y aprendizaje automático. Este servicio integra varias funciones de vanguardia, incluyendo modelos de lenguaje grandes dentro de la base de datos, lo que permite la automatización en el procesamiento de transacciones y en análisis a escala de data lakehouse.

La versión ajustada de instrucciones Qwen-2-72B de código abierto, recientemente lanzada por el gigante tecnológico chino Alibaba, ha logrado el primer lugar en la clasificación mundial de modelos de lenguaje grandes de código abierto.

El equipo de Mendable AI ha desarrollado Firecrawl, una potente herramienta de extracción web diseñada para abordar los complejos desafíos asociados con la obtención de datos de Internet. Si bien la extracción web es útil, a menudo implica superar obstáculos como proxies, almacenamiento en caché, limitaciones de velocidad y contenido generado por JavaScript. Firecrawl aborda estos problemas directamente, convirtiéndolo en una herramienta esencial para los científicos de datos.

La potencia de la IA, la naturaleza de descubrimiento de los modelos de lenguaje grandes, la actitud optimista de Bezos hacia la IA, la ayuda de la IA para asegurar que la humanidad no se autodestruya, el asistente de voz de Amazon se prepara para ser más inteligente

Google DeepMind ha utilizado con éxito modelos de lenguaje grandes para resolver problemas matemáticos sin resolver. Se ha utilizado la herramienta de IA FunSearch para descubrir nueva información verificable y valiosa. FunSearch es una herramienta capaz de encontrar soluciones en el ámbito de las matemáticas. Combinada con un modelo de lenguaje grande llamado Codey, FunSearch también ha resuelto con éxito el problema del empaquetamiento de contenedores (bin packing).

Google Cloud se ha asociado con Mistral AI para facilitar la distribución de modelos de lenguaje. Mistral AI utilizará la infraestructura optimizada de Google Cloud para probar y ampliar sus modelos de lenguaje grande. Los modelos de lenguaje grande, entrenados con conjuntos de datos masivos, se utilizan para generar texto y otro contenido. Mistral AI es una startup fundada por antiguos investigadores de IA de Meta y Google. Mistral AI ha recaudado 385 millones de euros en financiación, liderada por A...